Trong tiểu thuyết Tam Quốc Diễn Nghĩa của La Quán Trung, Cao Lãm xuất hiện ở hồi 31, là mãnh tướng dưới trướng Viên Thiệu, theo Thiệu ra quân Quan Độ, chiến đấu dũng cảm, từng đánh ngang tay với Hứa Chử, Từ Hoảng.[4]

Khi tướng của Viên Thiệu là Hàn Mãnh đem xe lương đến trại Viên Thiệu thì bị tướng Tào là Từ Hoảng, Sử Hoán đem quân ra chẹn đường. Từ Hoảng thúc quân vào đốt sạch cả mấy nghìn cỗ xe. Viên Thiệu sai Trương Cáp, Cao Lãm đi cứu nhưng bị quân Tào đánh bại. Sau khi kho lương Ô Sào mất, hai người sợ tội nên hàng quân Tào. Tào Tháo phong cho Cao Lãm làm Thiên tướng quân tước Đông Lai hầu.[4]

Khi Lưu Bị khởi binh ở Nhữ Nam, Cao Lãm theo Hạ Hầu Uyên trấn áp. Cao Lãm chiếm được thành, truy sát Lưu Bị. Lưu Tích liều mình cứu giúp, bị Cao Lãm đâm chết. Khi Cao Lãm sắp đuổi kịp Lưu Bị thì Triệu Vân xuất hiện, đâm chết Cao Lãm.[4]

Trong truyền kỳ dân gian, Cao Lãm cùng Nhan Lương, Văn Xú, Trương Cáp được gọi là bốn cột trụ của Hà Bắc (Hà Bắc tứ đình trụ).